Lời giải:
\(\lim\limits_{x\to 3}f(x)=\lim\limits_{x\to 3}\frac{9-x^2}{3-x}=\frac{(3-x)(3+x)}{3-x}=\lim\limits_{x\to 3}(3+x)=3+3=6=f(3)\)

Do đó hàm số liên tục tại $x=3$.

\(\lim\limits_{x\rightarrow3}f\left(x\right)=\lim\limits_{x\rightarrow3}\dfrac{9-x^2}{3-x}=\lim\limits_{x\rightarrow3}3+x=3+3=6\)

\(f\left(3\right)=6\)

=>\(\lim\limits_{x\rightarrow3}f\left(x\right)=f\left(3\right)\)

=>Hàm số liên tục tại x=3

- Với \(x< 3\Rightarrow f'\left(x\right)=6x^2-6\left(m+1\right)x+6m=6\left(x-1\right)\left(x-m\right)\)

\(f'\left(x\right)=0\Rightarrow6\left(x-1\right)\left(x-m\right)=0\left(1\right)\Rightarrow\left[{}\begin{matrix}x=1\\x=m\end{matrix}\right.\) có tối đa 2 cực trị khi \(x< 3\)

- Với \(x>3\Rightarrow f'\left(x\right)=n\) là hằng số \(\Rightarrow f\left(x\right)\) ko có cực trị khi \(x>3\)

\(\Rightarrow\) Hàm có đúng 3 điểm cực trị khi và chỉ khi nó đồng thời thỏa mãn:

ĐK1: \(f'\left(x\right)=0\) có 2 nghiệm pb khi \(x< 3\Rightarrow\left\{{}\begin{matrix}m< 3\\m\ne1\end{matrix}\right.\)

ĐK2: \(x=3\) là 1 cực trị của hàm số

\(\Rightarrow f\left(x\right)\) liên tục tại \(x=3\) đồng thời đạo hàm đổi dấu khi đi qua \(x=3\)

\(\lim\limits_{x\rightarrow3^+}f\left(x\right)=\lim\limits_{x\rightarrow3^-}f\left(x\right)\Leftrightarrow3n+46=25-9m\Rightarrow n=-3m-7\) (2)

Mặt khác do 2 nghiệm của (1) đều nhỏ hơn 3 \(\Rightarrow\) tại lân cận trái của \(x=3\) đạo hàm luôn có dấu dương

\(\Rightarrow\) Để đạo hàm đổi dấu khi đi qua \(x=3\) thì \(f'\left(3^+\right)=n< 0\)

Thế vào (2) \(\Rightarrow-3m-7< 0\Rightarrow m>-\dfrac{7}{3}\)

\(\Rightarrow-\dfrac{7}{3}< m< 3\Rightarrow\sum m=0\)

\(\lim\limits_{x\rightarrow3}\frac{3x^2-11x+6}{x-3}=\lim\limits_{x\rightarrow3}\frac{\left(3x-2\right)\left(x-3\right)}{x-3}=\lim\limits_{x\rightarrow3}\left(3x-2\right)=7\)

Để hàm số liên tục tại \(x=3\)

\(\Leftrightarrow m^2-9=7\Rightarrow m^2=16\Rightarrow m=\pm4\)

\(\lim\limits_{x\rightarrow0^+}f\left(x\right)=\lim\limits_{x\rightarrow0^+}\dfrac{\sqrt{x+4}-2}{x}=\lim\limits_{x\rightarrow0^+}\dfrac{x}{x\left(\sqrt{x+4}+2\right)}=\lim\limits_{x\rightarrow0^+}\dfrac{1}{\sqrt{x+4}+2}=\dfrac{1}{4}\)

\(f\left(0\right)=\lim\limits_{x\rightarrow0^-}f\left(x\right)=\lim\limits_{x\rightarrow0^-}\left(mx^2+2m+\dfrac{1}{4}\right)=2m+\dfrac{1}{4}\)

Hàm liên tục tại x=0 khi: \(\lim\limits_{x\rightarrow0^+}f\left(x\right)=\lim\limits_{x\rightarrow0^-}f\left(x\right)=f\left(0\right)\)

\(\Leftrightarrow2m+\dfrac{1}{4}=\dfrac{1}{4}\Leftrightarrow m=0\)

\(\lim\limits_{x\rightarrow1}f\left(x\right)=\lim\limits_{x\rightarrow1}\dfrac{x^3-x^2+2x-2}{x-1}=\lim\limits_{x\rightarrow1}\dfrac{x^2\left(x-1\right)+2\left(x-1\right)}{x-1}\)

\(=\lim\limits_{x\rightarrow1}\dfrac{\left(x-1\right)\left(x^2+2\right)}{x-1}=\lim\limits_{x\rightarrow1}\left(x^2+2\right)=3\)

\(f\left(1\right)=3.1+m=m+3\)

Hàm số liên tục tại \(x_0=1\) khi và chỉ khi \(\lim\limits_{x\rightarrow1}f\left(x\right)=f\left(1\right)\)

\(\Rightarrow m+3=3\Rightarrow m=0\)

\(\lim\limits_{x\rightarrow1^-}f\left(x\right)=\lim\limits_{x\rightarrow1^-}\dfrac{3\left(x-1\right)}{\left(1-x\right)\left(x^2+x+1\right)\left(\sqrt[3]{\left(3x+5\right)^2}+2\sqrt[3]{3x+5}+4\right)}\)

\(=\lim\limits_{x\rightarrow1^-}\dfrac{-3}{\left(x^2+x+1\right)\left(\sqrt[3]{\left(3x+5\right)^2}+2\sqrt[3]{3x+5}+4\right)}=-\dfrac{1}{12}\)

\(f\left(1\right)=\lim\limits_{x\rightarrow1^+}f\left(x\right)=\lim\limits_{x\rightarrow1^+}\dfrac{2m\sqrt{x}+3}{5}=\dfrac{2m+3}{5}\)

Hàm liên tục trên R khi và chỉ khi:

\(f\left(1\right)=\lim\limits_{x\rightarrow1^-}f\left(x\right)=\lim\limits_{x\rightarrow1^+}\Leftrightarrow\dfrac{2m+3}{5}=-\dfrac{1}{12}\Leftrightarrow m=-\dfrac{41}{24}\)

b, \(\left\{{}\begin{matrix}x^2-2x-3\le0\\x^2-2mx+m^2-9\ge0\end{matrix}\right.\)

\(\Leftrightarrow\left\{{}\begin{matrix}-1\le x\le3\\x^2-2mx+m^2-9\ge0\end{matrix}\right.\)

Yêu cầu bài toán thỏa mãn khi phương trình \(f\left(x\right)=x^2-2mx+m^2-9\ge0\) có nghiệm \(x\in\left[-1;3\right]\)

\(\Leftrightarrow\left\{{}\begin{matrix}\Delta'=m^2-m^2+9=9>0,\forall m\\-1< m< 3\\f\left(-1\right)=m^2+2m-8\ge0\\f\left(3\right)=m^2-6m\ge0\end{matrix}\right.\)

\(\Leftrightarrow m\in[2;3)\cup(-1;0]\)

\(\lim\limits_{x\rightarrow-3}f\left(x\right)=\lim\limits_{x\rightarrow-3}\dfrac{x^2+3x}{x+3}\)

\(=\lim\limits_{x\rightarrow-3}\dfrac{x\left(x+3\right)}{x+3}=\lim\limits_{x\rightarrow-3}x=-3\)

\(f\left(-3\right)=-6-\left(-3\right)=-6+3=-3\)

Vậy: \(\lim\limits_{x\rightarrow-3}f\left(x\right)=f\left(-3\right)\)

=>Hàm số liên tục tại x=-3